一項最新研究顯示，人工智慧（AI）模型的底層硬體存在安全漏洞，駭客可透過遠端操控讓聊天機器人給出危險甚至可能影響國家安全的錯誤回覆，凸顯 AI 基礎設施亟需加強防護。
網路安全公司 Eclypsium 近日發表研究指出，人工智慧（AI）模型的底層硬體存在安全漏洞，駭客可能藉此操控聊天機器人，使其提供錯誤甚至危險的回覆。這項研究揭示了 AI 系統安全性面臨的重大挑戰。
研究人員成功展示了 AI 硬體攻擊的兩種情境。其一，透過遠端竄改 AI 模型內部影響判斷或輸出傾向的參數（權重），他們能提高 AI 模型預測「中國入侵台灣」的機率。其二，遭竄改的 AI 模型建議一名胸痛患者留在家中，而非立即就醫，此類誤導性建議可能導致嚴重後果。
Eclypsium 強調，這類攻擊可在不到一分鐘內完成，且 AI 用戶對此毫無察覺。Eclypsium 執行長 Yuriy Bulygin 指出：「如果我們無法信任運行 AI 模型的基礎設施，我們就無法信任 AI 模型本身。」該公司雖以輝達（Nvidia）平台進行示範，但研究結果顯示，此類攻擊情境並非輝達獨有，也適用於其他硬體與程式碼。
研究報告警告，包括中國、俄羅斯和美國等國家級行為者，可能利用這些方法對特定的 AI 用戶發動針對性攻擊。Eclypsium 已向美國國家安全局（National Security Agency）和網絡安全和基礎設施安全局（Cybersecurity and Infrastructure Security Agency）簡報了他們的發現，兩位獨立的硬體安全專家也對研究結果表示認可。
對此，輝達發言人回應表示，這些假設情境業界並非毫無所悉，並指出強大的記憶體存取保護措施能有效阻擋此類攻擊路徑。輝達也宣布推出新的安全平台，旨在防範硬體攻擊，確保 AI 代理程式（AI agents）不會失控。然而，Eclypsium 資深副總裁 John Loucaides 提醒，在關注 AI 模型的同時，不應忽略運行這些模型的電腦硬體安全問題。